Robust Inference for State-Space Models with Skewed Measurement Noise

Filtering and smoothing algorithms for linear discrete-time state-space models with skewed and heavy-tailed measurement noise are presented. The algorithms use a variational Bayes approximation of the posterior distribution of models that have normal prior and skew-t-distributed measurement noise. The proposed filter and smoother are compared with conventional low-complexity alternatives in a simulated pseudorange positioning scenario. In the simulations the proposed methods achieve better accuracy than the alternative methods, the computational complexity of the filter being roughly 5 to 10 times that of the Kalman filter.Comment: 5 pages, 7 figures. Accepted for publication in IEEE Signal Processing Letter

3D angle-of-arrival positioning using von Mises-Fisher distribution

We propose modeling an angle-of-arrival (AOA) positioning measurement as a von Mises-Fisher (VMF) distributed unit vector instead of the conventional normally distributed azimuth and elevation measurements. Describing the 2-dimensional AOA measurement with three numbers removes discontinuities and reduces nonlinearity at the poles of the azimuth-elevation coordinate system. Our computer simulations show that the proposed VMF measurement noise model based filters outperform the normal distribution based algorithms in accuracy in a scenario where close-to-pole measurements occur frequently.Comment: 5 page

Position estimation using RSS measurements with unknown measurement model parameters

The availability and performance of satellite-based navigation systems are the weakest in urban areas and indoor spaces, where the user density would be high. In these environments alternative low-cost positioning techniques are needed. This thesis considers positioning using received signal strength (RSS) measurements of terrestrial wireless networks. No prior knowledge of the considered wireless networks is assumed in this thesis, but only a simplified statistical path loss model for signal propagation. The model parameters are estimated for each base station of the network separately using pre-collected learning data. The method is based on Bayesian estimation theory that characterizes the precision of the parameter estimates, which is an essential feature. Three Bayesian position estimation methods are proposed in this thesis. Two versions of each are compared: one uses point estimates for the model parameters and assumes them to be accurate, whereas the other takes the finite parameter precisions into account. Real-data tests are accomplished using cellular networks in outdoor and wireless local area networks (WLAN) in indoor spaces. The tests indicate that taking the finite parameter precisions into account improves positioning accuracy and especially makes error estimation more realistic. Furthermore, RSS-based methods outperform the method that uses only the list of observed base stations and no RSS information. The advantages of parametric methods compared with the k-nearest neighbour method, which can be regarded as the state-of-the-art positioning method, are also shown

Estimation Algorithms for Non-Gaussian State-Space Models with Application to Positioning

State-space models (SSMs) are used to model systems with hidden time-varying state and observable measurement output. In statistical SSMs, the state dynamics is assumed known up to a random term referred to as the process noise, and the measurements contain random measurement noise. Kalman filter (KF) and Rauch– Tung–Striebel smoother (RTSS) are widely-applied closed-form algorithms that provide the parameters of the exact Bayesian filtering and smoothing distributions for discrete-time linear statistical SSMs where the process and measurement noises follow Gaussian distributions. However, when the SSM involves nonlinear functions and/or non-Gaussian noises, the Bayesian filtering and smoothing distributions cannot in general be solved using closed-form algorithms. This thesis addresses approximate Bayesian time-series inference for two positioning-related problems where the assumption of Gaussian noises cannot capture all useful knowledge of the considered system’s statistical properties: map-assisted indoor positioning and positioning using time-delay measurements.The motion constraints imposed by the indoor map are typically incorporated in the position estimate using the particle filter (PF) algorithm. The PF is a Monte Carlo algorithm especially suited for statistical SSMs where the Bayesian posterior distributions are too complicated to be adequately approximated using a well-known distribution family with a low-dimensional parameter space. In mapassisted indoor positioning, the trajectories that cross walls or floor levels get a low probability in the model. In this thesis, improvements to three different PF algorithms for map-assisted indoor positioning are proposed and compared. In the wall-collision PF, weighted random samples, also known as particles, are moved based on inertial sensor measurements, and the particles that collide with the walls are downweighted. When the inertial sensor measurements are very noisy, map information is used to guide the particles such that fewer particles collide with the walls, which implies that more particles contribute to the estimation. When no inertial sensor information is used, the particles are moved along the links of a graph that is dense enough to approximate the set of expected user paths.Time-delay based ranging measurements of e.g. ultra-wideband (UWB) and Global Navigation Satellite Systems (GNSSs) contain occasional positive measurement errors that are large relative to the majority of the errors due to multipath effects and denied line of sight. In this thesis, computationally efficient approximate Bayesian filters and smoothers are proposed for statistical SSMs where the measurement noise follows a skew t -distribution, and the algorithms are applied to positioning using time-delay based ranging measurements. The skew t -distribution is an extension of the Gaussian distribution, which has two additional parameters that affect the heavytailedness and skewness of the distribution. When the measurement noise model is heavy-tailed, the optimal Bayesian algorithm is robust to occasional large measurement errors, and when the model is positively (or negatively) skewed, the algorithms account for the fact that most large errors are known to be positive (or negative). Therefore, the skew t -distribution is more flexible than the Gaussian distribution and captures more statistical features of the error distributions of UWB and GNSS measurements. Furthermore, the skew t -distribution admits a conditionally Gaussian hierarchical form that enables approximating the filtering and smoothing posteriors with Gaussian distributions using variational Bayes (VB) algorithms. The proposed algorithms can thus be computationally efficient compared to Monte Carlo algorithms especially when the state is high-dimensional. It is shown in this thesis that the skew-t filter improves the accuracy of UWB based indoor positioning and GNSS based outdoor positioning in urban areas compared to the extended KF. The skew-t filter’s computational burden is higher than that of the extended KF but of the same magnitude.Tila-avaruusmalleilla mallinnetaan järjestelmiä, joilla on tuntema-ton ajassa muuttuva tila sekä mitatattava ulostulo. Tilastollisissa tila-avaruusmalleissa järjestelmän tilan muutos tunnetaan lukuunotta-matta prosessikohinaksi kutsuttua satunnaista termiä, ja mittauk-set sisältävät satunnaista mittauskohinaa. Kalmanin suodatin sekäRauchin Tungin ja Striebelin siloitin ovat yleisesti käytettyjä sulje-tun muodon estimointialgoritmeja, jotka tuottavat tarkat bayesiläi-set suodatus- ja siloitusjakaumat diskreettiaikaisille lineaarisille ti-lastollisille tila-avaruusmalleille, joissa prosessi- ja mittauskohinatnoudattavat gaussisia jakaumia. Jos käsiteltyyn tila-avaruusmalliinkuitenkin liittyy epälineaarisia funktioita tai epägaussisia kohinoita,bayesiläisiä suodatus- ja siloitusjakaumia ei yleensä voida ratkais-ta suljetun muodon algoritmeilla. Tässä väitöskirjassa tutkitaan ap-proksimatiivista bayesiläistä aikasarjapäättelyä ja sen soveltamistakahteen paikannusongelmaan, joissa gaussinen jakauma ei mallinnariittävän hyvin kaikkea hyödyllistä tietoa tutkitun järjestelmän tilas-tollisista ominaisuuksista: kartta-avusteinen sisätilapaikannus sekäsignaalin kulkuaikamittauksiin perustuva paikannus.Sisätilakartan tuottamat liikerajoitteet voidaan liittää paikkaestimaat-tiin käyttäen partikkelisuodattimeksi kutsuttua algoritmia. Partik-kelisuodatin on Monte Carlo -algoritmi, joka soveltuu erityisesti ti-lastollisille tila-avaruusmalleille, joissa bayesiläisen posteriorijakau-man tiheysfunktio on niin monimutkainen, että sen approksimointitunnetuilla matalan parametridimension jakaumilla ei ole mielekäs-tä. Kartta-avusteisessa sisätilapaikannuksessa reitit, jotka leikkaavatseiniä tai kerrostasoja, saavat muita pienemmät todennäköisyydet.Tässä väitöskirjassa esitetään parannuksia kolmeen eri partikkelisuo-datusalgoritmiin, joita sovelletaan kartta-avusteiseen sisätilapaikan-vnukseen. Seinätörmayssuodattimessa painolliset satunnaisnäytteeteli partikkelit liikkuvat inertiasensorimittausten mukaisesti, ja sei-nään törmäävät partikkelit saavat pienet painot. Kun inertiasensori-mittauksissa on paljon kohinaa, partikkeleita voidaan ohjata siten,että seinätörmäysten määrä vähenee, jolloin suurempi osa partikke-leista vaikuttaa estimaattiin. Kun inertiasensorimittauksia ei käytetälainkaan, sisätilakartta voidaan esittää graafina, jonka kaarilla partik-kelit liikkuvat ja joka on riittävän tiheä approksimoimaan odotetta-vissa olevien reittien joukkoa.Esimerkiksi laajan taajuuskaistan radioista (UWB, ultra-wideband)tai paikannussatelliiteista saatavat radiosignaalin kulkuaikaan pe-rustuvat etäisyysmittaukset taas voivat sisältää monipolkuheijastus-ten ja suoran reitin estymisen aiheuttamia positiivismerkkisiä vir-heitä, jotka ovat huomattavan suuria useimpiin mittausvirheisiinverrattuna. Tässä väitöskirjassa esitetään laskennallisesti tehokkaitabayesiläisen suodattimen ja siloittimen approksimaatioita tilastol-lisille tila-avaruusmalleille, joissa mittauskohina noudattaa vinoat -jakaumaa. Vino t -jakauma on gaussisen jakauman laajennos, jasillä on kaksi lisäparametria, jotka vaikuttavat jakauman paksuhän-täisyyteen ja vinouteen. Kun mittauskohinaa mallintava jakaumaoletetaan paksuhäntäiseksi, optimaalinen bayesiläinen algoritmi eiole herkkä yksittäisille suurille mittausvirheille, ja kun jakauma olete-taan positiivisesti (tai negatiivisesti) vinoksi, algoritmit hyödyntävättietoa, että suurin osa suurista virheistä on positiivisia (tai negatiivi-sia). Vino t -jakauma on siis gaussista jakaumaa joustavampi, ja sillävoidaan mallintaa kulkuaikaan perustuvien mittausten virhejakau-maa tarkemmin kuin gaussisella jakaumalla. Vinolla t -jakaumalla onmyös ehdollisesti gaussinen esitys, joka soveltuu suodatus- ja siloi-tusposteriorien approksimointiin variaatio-Bayes-algoritmilla. Näinollen esitetyt algoritmit voivat olla laskennallisesti tehokkaampiakuin Monte Carlo -algoritmit erityisesti tilan ollessa korkeaulotteinen.Tässä väitöskirjassa näytetään, että vino-t -virhejakauman käyttö pa-rantaa UWB-radioon perustuvan sisätilapaikannuksen tarkkuuttasekä satelliittipohjaisen ulkopaikannuksen tarkkuutta kaupunkiym-päristössä verrattuna laajennettuun Kalmanin suodattimeen. Vino-t -suodatuksen laskennallinen vaativuus on suurempi mutta samaakertaluokkaa kuin laajennetun Kalmanin suodattimen

Estimation Algorithms for Non-Gaussian State-Space Models with Application to Positioning

State-space models (SSMs) are used to model systems with hidden time-varying state and observable measurement output. In statistical SSMs, the state dynamics is assumed known up to a random term referred to as the process noise, and the measurements contain random measurement noise. Kalman filter (KF) and Rauch– Tung–Striebel smoother (RTSS) are widely-applied closed-form algorithms that provide the parameters of the exact Bayesian filtering and smoothing distributions for discrete-time linear statistical SSMs where the process and measurement noises follow Gaussian distributions. However, when the SSM involves nonlinear functions and/or non-Gaussian noises, the Bayesian filtering and smoothing distributions cannot in general be solved using closed-form algorithms. This thesis addresses approximate Bayesian time-series inference for two positioning-related problems where the assumption of Gaussian noises cannot capture all useful knowledge of the considered system’s statistical properties: map-assisted indoor positioning and positioning using time-delay measurements.The motion constraints imposed by the indoor map are typically incorporated in the position estimate using the particle filter (PF) algorithm. The PF is a Monte Carlo algorithm especially suited for statistical SSMs where the Bayesian posterior distributions are too complicated to be adequately approximated using a well-known distribution family with a low-dimensional parameter space. In mapassisted indoor positioning, the trajectories that cross walls or floor levels get a low probability in the model. In this thesis, improvements to three different PF algorithms for map-assisted indoor positioning are proposed and compared. In the wall-collision PF, weighted random samples, also known as particles, are moved based on inertial sensor measurements, and the particles that collide with the walls are downweighted. When the inertial sensor measurements are very noisy, map information is used to guide the particles such that fewer particles collide with the walls, which implies that more particles contribute to the estimation. When no inertial sensor information is used, the particles are moved along the links of a graph that is dense enough to approximate the set of expected user paths.Time-delay based ranging measurements of e.g. ultra-wideband (UWB) and Global Navigation Satellite Systems (GNSSs) contain occasional positive measurement errors that are large relative to the majority of the errors due to multipath effects and denied line of sight. In this thesis, computationally efficient approximate Bayesian filters and smoothers are proposed for statistical SSMs where the measurement noise follows a skew t -distribution, and the algorithms are applied to positioning using time-delay based ranging measurements. The skew t -distribution is an extension of the Gaussian distribution, which has two additional parameters that affect the heavytailedness and skewness of the distribution. When the measurement noise model is heavy-tailed, the optimal Bayesian algorithm is robust to occasional large measurement errors, and when the model is positively (or negatively) skewed, the algorithms account for the fact that most large errors are known to be positive (or negative). Therefore, the skew t -distribution is more flexible than the Gaussian distribution and captures more statistical features of the error distributions of UWB and GNSS measurements. Furthermore, the skew t -distribution admits a conditionally Gaussian hierarchical form that enables approximating the filtering and smoothing posteriors with Gaussian distributions using variational Bayes (VB) algorithms. The proposed algorithms can thus be computationally efficient compared to Monte Carlo algorithms especially when the state is high-dimensional. It is shown in this thesis that the skew-t filter improves the accuracy of UWB based indoor positioning and GNSS based outdoor positioning in urban areas compared to the extended KF. The skew-t filter’s computational burden is higher than that of the extended KF but of the same magnitude.Tila-avaruusmalleilla mallinnetaan järjestelmiä, joilla on tuntema-ton ajassa muuttuva tila sekä mitatattava ulostulo. Tilastollisissa tila-avaruusmalleissa järjestelmän tilan muutos tunnetaan lukuunotta-matta prosessikohinaksi kutsuttua satunnaista termiä, ja mittauk-set sisältävät satunnaista mittauskohinaa. Kalmanin suodatin sekäRauchin Tungin ja Striebelin siloitin ovat yleisesti käytettyjä sulje-tun muodon estimointialgoritmeja, jotka tuottavat tarkat bayesiläi-set suodatus- ja siloitusjakaumat diskreettiaikaisille lineaarisille ti-lastollisille tila-avaruusmalleille, joissa prosessi- ja mittauskohinatnoudattavat gaussisia jakaumia. Jos käsiteltyyn tila-avaruusmalliinkuitenkin liittyy epälineaarisia funktioita tai epägaussisia kohinoita,bayesiläisiä suodatus- ja siloitusjakaumia ei yleensä voida ratkais-ta suljetun muodon algoritmeilla. Tässä väitöskirjassa tutkitaan ap-proksimatiivista bayesiläistä aikasarjapäättelyä ja sen soveltamistakahteen paikannusongelmaan, joissa gaussinen jakauma ei mallinnariittävän hyvin kaikkea hyödyllistä tietoa tutkitun järjestelmän tilas-tollisista ominaisuuksista: kartta-avusteinen sisätilapaikannus sekäsignaalin kulkuaikamittauksiin perustuva paikannus.Sisätilakartan tuottamat liikerajoitteet voidaan liittää paikkaestimaat-tiin käyttäen partikkelisuodattimeksi kutsuttua algoritmia. Partik-kelisuodatin on Monte Carlo -algoritmi, joka soveltuu erityisesti ti-lastollisille tila-avaruusmalleille, joissa bayesiläisen posteriorijakau-man tiheysfunktio on niin monimutkainen, että sen approksimointitunnetuilla matalan parametridimension jakaumilla ei ole mielekäs-tä. Kartta-avusteisessa sisätilapaikannuksessa reitit, jotka leikkaavatseiniä tai kerrostasoja, saavat muita pienemmät todennäköisyydet.Tässä väitöskirjassa esitetään parannuksia kolmeen eri partikkelisuo-datusalgoritmiin, joita sovelletaan kartta-avusteiseen sisätilapaikan-vnukseen. Seinätörmayssuodattimessa painolliset satunnaisnäytteeteli partikkelit liikkuvat inertiasensorimittausten mukaisesti, ja sei-nään törmäävät partikkelit saavat pienet painot. Kun inertiasensori-mittauksissa on paljon kohinaa, partikkeleita voidaan ohjata siten,että seinätörmäysten määrä vähenee, jolloin suurempi osa partikke-leista vaikuttaa estimaattiin. Kun inertiasensorimittauksia ei käytetälainkaan, sisätilakartta voidaan esittää graafina, jonka kaarilla partik-kelit liikkuvat ja joka on riittävän tiheä approksimoimaan odotetta-vissa olevien reittien joukkoa.Esimerkiksi laajan taajuuskaistan radioista (UWB, ultra-wideband)tai paikannussatelliiteista saatavat radiosignaalin kulkuaikaan pe-rustuvat etäisyysmittaukset taas voivat sisältää monipolkuheijastus-ten ja suoran reitin estymisen aiheuttamia positiivismerkkisiä vir-heitä, jotka ovat huomattavan suuria useimpiin mittausvirheisiinverrattuna. Tässä väitöskirjassa esitetään laskennallisesti tehokkaitabayesiläisen suodattimen ja siloittimen approksimaatioita tilastol-lisille tila-avaruusmalleille, joissa mittauskohina noudattaa vinoat -jakaumaa. Vino t -jakauma on gaussisen jakauman laajennos, jasillä on kaksi lisäparametria, jotka vaikuttavat jakauman paksuhän-täisyyteen ja vinouteen. Kun mittauskohinaa mallintava jakaumaoletetaan paksuhäntäiseksi, optimaalinen bayesiläinen algoritmi eiole herkkä yksittäisille suurille mittausvirheille, ja kun jakauma olete-taan positiivisesti (tai negatiivisesti) vinoksi, algoritmit hyödyntävättietoa, että suurin osa suurista virheistä on positiivisia (tai negatiivi-sia). Vino t -jakauma on siis gaussista jakaumaa joustavampi, ja sillävoidaan mallintaa kulkuaikaan perustuvien mittausten virhejakau-maa tarkemmin kuin gaussisella jakaumalla. Vinolla t -jakaumalla onmyös ehdollisesti gaussinen esitys, joka soveltuu suodatus- ja siloi-tusposteriorien approksimointiin variaatio-Bayes-algoritmilla. Näinollen esitetyt algoritmit voivat olla laskennallisesti tehokkaampiakuin Monte Carlo -algoritmit erityisesti tilan ollessa korkeaulotteinen.Tässä väitöskirjassa näytetään, että vino-t -virhejakauman käyttö pa-rantaa UWB-radioon perustuvan sisätilapaikannuksen tarkkuuttasekä satelliittipohjaisen ulkopaikannuksen tarkkuutta kaupunkiym-päristössä verrattuna laajennettuun Kalmanin suodattimeen. Vino-t -suodatuksen laskennallinen vaativuus on suurempi mutta samaakertaluokkaa kuin laajennetun Kalmanin suodattimen

Морфонологія українських віддієслівних словотвірних гнізд

(uk) У статті окреслено перспективу дослідження девербативів у сучасній українській мові в контексті теоретичних здобутків сучасної лінгвістики, з’ясовано морфонологічні характеристики словотвірних гнізд девербативів різних структурних типів.(en) The article outlines the perspective of the research of verbal derivatives in modern Ukrainian language in the context of theoretical achievements of modern linguistics, the morphological characteristics of wordbuilding units of verbal derivatives with different structure types

Wi-Fi Node Location Estimation Based on GNSS and Motion Sensor Data

Indoor localization is a well researched scientific topic and demanded commercial and technological area. However, the problem of scalability remains for indoor localization systems. Though there is a plenty of radio-based approaches for indoor localization that achieve high level of accuracy, many of those rely on manual data collection which is laborious and not globally scalable. In this paper we approach the problem of scalable radio-mapping by improving estimation of horizontal locations of Wi-Fi radio nodes using GNSS and motion sensor data collected in crowd-sourcing manner, i.e. without manual human intervention. We use simple and yet robust sensor fusion algorithms based on Kalman Filter to estimate pedestrian tracks in indoor and outdoor environments, and then use resulting location estimates as a reference for radio measurements, which are further used to estimate horizontal locations of Wi-Fi radio nodes indoors. We then analyze different radio measurement selection criteria for Wi-Fi node location estimation methods. The experiments based on real data indicate that sensor fusion considerably improves localization of Wi-Fi radio nodes when compared to approaches relying on GNSS data only. Our study also shows that using only radio measurements with strong signal and accurate location reference results in more accurate localization of Wi-Fi radio nodes. The results also indicate that estimation of Wi-Fi radio node locations with accuracy below 15-20 meters on average is achievable without manual data collection, and hence in a globally scalable way. Proposed approaches may be further extended with sensor fusion methods utilizing, for example, misalignment estimation and magnetometer measurements, as well as applied to radio technologies other than Wi-Fi, such as 5G radio technologies.publishedVersionPeer reviewe

Dissecting the polygenic basis of atherosclerosis via disease-associated cell state signatures

Coronary artery disease (CAD) is a pandemic disease where up to half of the risk is explained by genetic factors. Advanced insights into the genetic basis of CAD require deeper understanding of the contributions of different cell types, molecular pathways, and genes to disease heritability. Here, we investigate the biological diversity of atherosclerosis-associated cell states and interrogate their contribution to the genetic risk of CAD by using single-cell and bulk RNA sequencing (RNA-seq) of mouse and human lesions. We identified 12 disease-associated cell states that we characterized further by gene set functional profiling, ligand-receptor prediction, and transcription factor inference. Importantly, Vcam1+ smooth muscle cell state genes contributed most to SNP-based heritability of CAD. In line with this, genetic variants near smooth muscle cell state genes and regulatory elements explained the largest fraction of CAD-risk variance between individuals. Using this information for variant prioritization, we derived a hybrid polygenic risk score (PRS) that demonstrated improved performance over a classical PRS. Our results provide insights into the biological mechanisms associated with CAD risk, which could make a promising contribution to precision medicine and tailored therapeutic interventions in the future.publishedVersionPeer reviewe

Position estimation using RSS measurements with unknown measurement model parameters

The availability and performance of satellite-based navigation systems are the weakest in urban areas and indoor spaces, where the user density would be high. In these environments alternative low-cost positioning techniques are needed. This thesis considers positioning using received signal strength (RSS) measurements of terrestrial wireless networks. No prior knowledge of the considered wireless networks is assumed in this thesis, but only a simplified statistical path loss model for signal propagation. The model parameters are estimated for each base station of the network separately using pre-collected learning data. The method is based on Bayesian estimation theory that characterizes the precision of the parameter estimates, which is an essential feature. Three Bayesian position estimation methods are proposed in this thesis. Two versions of each are compared: one uses point estimates for the model parameters and assumes them to be accurate, whereas the other takes the finite parameter precisions into account. Real-data tests are accomplished using cellular networks in outdoor and wireless local area networks (WLAN) in indoor spaces. The tests indicate that taking the finite parameter precisions into account improves positioning accuracy and especially makes error estimation more realistic. Furthermore, RSS-based methods outperform the method that uses only the list of observed base stations and no RSS information. The advantages of parametric methods compared with the k-nearest neighbour method, which can be regarded as the state-of-the-art positioning method, are also shown